Sau khi giành được thắng lợi quân sự tại phòng tuyến Như Nguyệt, Đại Việt chủ động nghị hòa với quân Tống.Sứ thần Kiều Văn Ứng cho Quách Quỳ biết là vua Lý sẽ sai sứ sang xin tạ tội vì đã kéo quân đánh Khâm Châu và Liêm Châu và xin tiếp tục nộp cống. Ông cũng bào chữa việc đánh Tống trước là do Từ Bá Tường xúi giục[14]. Tống sử chép rằng phía quân Tống "số quân đem đi 10 vạn, phu 20 vạn, nay đã chết mất quá nửa, số còn lại thì ốm đau, lương ăn đã cạn"[15]. Tống sử, Quách Quỳ truyện chép rằng: 時兵夫三十萬人，冒暑涉瘴地，死者過半。至是，與賊隔一水不得進，乃班師. ("Thì binh phu tam thập vạn nhân, mạo thử thiệp chướng địa, tử giả quá bán. Chí thị, dữ tặc cách nhất thủy bất đắc tiến, nãi ban sư" nghĩa là Đem binh phu đi 30 vạn người, gặp phải nắng nóng đất độc, chết quá nửa. Đến nay, lại cách giặc một con sông không thể tiến lên, bèn đem quân về.)[16]. Quách Quỳ nhận lời giảng hòa, nhưng nói rằng: "Ta không thể đạp đổ được sào huyệt giặc, bắt được Càn Đức để báo mệnh triều đình. Tại trời vậy! Thôi đành liều một thân ta để cứu hơn 10 vạn nhân mạng".[17] Tuy nhiên, Trình Di và Trình Hạo trong Nhị Trình di thư nhận xét rằng: "May được lời giặc nói nhũn, liền nhân đó giảng hòa. Nếu không có lời quy thuận của giặc thì làm thế nào?"

Tháng 3 năm 1077, Quách Quỳ rút quân về nước, quân Tống rút đến đâu, quân Đại Việt theo sau chiếm lại đến đó. Tống sử chép về cuộc rút quân như sau: "Quỳ muốn rút quân về, sợ giặc tập kích bèn bắt quân khởi hành ban đêm, hàng ngũ không được chỉnh tề, tình hình hỗn loạn, giày xéo lên nhau".

Sau khi về nước, khi kiểm binh, trong số 10 vạn lính Tống ban đầu chỉ còn 23.400 lính trở về, 1 vạn ngựa chiến thì còn lại 3.174 con. Số dân phu 20 vạn trở về không được một nửa. Phí tổn chiến tranh được triều Tống tính ra là 5.190.000 lạng vàng. Quách Quỳ bị quy tội vì đã trì hoãn không chịu tiến binh nên bị đổi đi Ngạc Châu, rồi giáng làm tả vệ tướng quân và an trí (quản thúc tại gia) ở Tây Kinh. Triệu Tiết chỉ bị kết tội không lập tức dẹp giặc, giáng làm Trực Long Đồ các, tri Quế Châu[18]

Năm Mậu Ngọ (1078) Lý Nhân Tông mở cuộc giao hảo với nhà Tống. Sứ thần Đại Việt là Đào Tông Nguyên đưa năm con voi đă thuần sang cống vua Tống và đi đòi lại những châu, huyện ở miền Cao Bằng. Tống triều ưng thuận với điều kiện là quân Lý phải trả lại cho nhà Tống những thường dân Tống ở các châu Khâm, Liêm, Ung bị quân Lý bắt đem về nước làm nô tì trong năm 1075. Thường dân Tống bị bắt hơn ngàn người nhưng quân nhà Lý chỉ trả tất cả là 221 người[19]. Trước khi cho họ về, nhà Lý cho thích vào trán con trai từ 15 tuổi trở lên ba chữ "Thiên tử binh", đàn ông từ 20 tuổi trở lên thích chữ "Đầu Nam Triều" và vào cánh tay trái đàn bà con gái hai chữ "Quan Khách" để làm nhục nhà Tống.